Tìm kiếm: Trung tâm dữ liệu

Phần cứng 26/10/2023 - 06:18:34

Mức tiêu thụ điện năng khổng lồ của các trung tâm dữ liệu AI

Nhu cầu về AI đang rất lớn hiện nay. Công ty Schneider Electric của Pháp ước tính rằng mức tiêu thụ điện năng của các khối lượng công việc AI sẽ đạt khoảng 4,3 GW vào năm 2023, thấp hơn một chút so với mức tiêu thụ điện năng của quốc gia Cyprus (4,7 GW) vào năm 2021. Công ty dự đoán rằng mức tiêu thụ điện năng của các khối lượng công việc AI sẽ tăng trưởng với tốc độ tăng trưởng kép hàng năm (CAGR) từ 26% đến 36%, điều này cho thấy rằng vào năm 2028, các khối lượng công việc AI sẽ tiêu thụ từ 13,5 GW đến 20 GW, nhiều hơn mức tiêu thụ của Iceland vào năm 2021.

Mai Ngọc

2473

Phần cứng 26/10/2023 - 08:33:05

Socionext công bố chiplet 32 lõi cho trung tâm dữ liệu được sản xuất trên quy trình 2nm của TSMC

Socionext, một nhà phát triển chip tùy chỉnh đến từ Nhật Bản, đã công bố một trong những chiplet 32 lõi đầu tiên trong ngành dành cho trung tâm dữ liệu, dự kiến sẽ được sản xuất trên quy trình chế tạo 2nm của TSMC. Chiplet này có thể được sử dụng cho nhiều ứng dụng khác nhau, bao gồm trung tâm dữ liệu đám mây, edge server, cơ sở hạ tầng 5G/6G và các đơn vị xử lý dữ liệu.

Mai Ngọc

3548

Phần cứng 25/10/2023 - 01:45:50

SiFive Tiến Hành Tái Cấu Trúc, Đưa Đến Những Biến Động Lớn Trong Ngành RISC-V

SiFive, một trong những công ty chủ chốt trong hệ sinh thái RISC-V, đang trải qua quá trình tái cấu trúc đáng kể, đánh dấu bằng việc sa thải nhân viên trên diện rộng và dường như là sự chuyển đổi trọng tâm kinh doanh, theo báo cáo từ More Than Moore. Công ty dường như đang thu hẹp các sản phẩm lõi được thiết kế sẵn, điều này có nghĩa là họ có thể tập trung vào các lõi tùy chỉnh thay thế.

Tuấn Anh

3026

Phần cứng 25/10/2023 - 01:36:06

Mỹ đột ngột cấm xuất khẩu GPU AI và HPC của Nvidia sang Trung Quốc

Hoa Kỳ thường cho các công ty Mỹ vài tuần để vận chuyển hàng hóa đã đặt hàng và đôi khi đã thanh toán cho các đối tác của họ khi hạn chế xuất khẩu một số hàng hóa nhất định ở đâu đó. Nhưng thay vì cho Nvidia và các công ty khác thêm thời gian để vận chuyển GPU AI và HPC của họ đến Trung Quốc, Bộ Thương mại Hoa Kỳ đã quyết định đẩy nhanh việc thực hiện các hạn chế xuất khẩu mới nhất của mình. Do đó, Nvidia không còn có thể vận chuyển GPU A100, A800, H100, H800 và L40S sang Trung Quốc, có hiệu lực ngay lập tức.

Huyền Diễm

2929

Phần cứng 24/10/2023 - 01:59:55

Nvidia và AMD tham gia thị trường CPU ARM cho PC vào năm 2025

Nvidia và AMD đang chuẩn bị tham gia thị trường CPU ARM cho PC chạy hệ điều hành Microsoft Windows vào năm 2025. Động thái này được xem là một bước đi chiến lược nhằm cạnh tranh hiệu quả hơn với các hệ thống dựa trên ARM được Apple sử dụng trong máy tính Mac.

Minh Quân

3109

Games 22/10/2023 - 11:08:24

Samsung giới thiệu công nghệ bộ nhớ thế hệ mới tại Memory Tech Day 2023

Samsung đã chính thức giới thiệu các công nghệ bộ nhớ thế hệ mới của mình bao gồm HBM3E, GDDR7, LPDDR5X CAMM2, và nhiều hơn nữa tại sự kiện Memory Tech Day 2023.

Tuấn Anh

3147

Phần cứng 20/10/2023 - 10:15:16

NVIDIA và AMD hợp tác cung cấp máy tính trạm AI mạnh nhất thế giới với CPU Threadripper 7000

NVIDIA và AMD đã hợp tác để cung cấp dòng máy tính trạm mới được trang bị GPU RTX Ada thế hệ mới nhất của NVIDIA và CPU Ryzen Threadripper Pro 7000 WX-Series của AMD. Sự kết hợp này mang đến khả năng tính toán AI, kết xuất đồ họa và mô phỏng mạnh mẽ nhất, cho phép các chuyên gia xử lý hiệu quả các quy trình công việc AI quy mô lớn, đòi hỏi nhiều tài nguyên nhất ngay tại máy trạm của họ.

Tuấn Anh

3404

Phần cứng 20/10/2023 - 10:11:08

Mihira AI hồi sinh dự án Project Endgame bị Intel đình trệ

Cựu giám đốc điều hành đồ họa của AMD và Intel, Raja Koduri, dường như là một trong những nhà sáng tạo không bao giờ từ bỏ một dự án mà họ thấy tiềm năng, dựa trên cách công ty mới của ông, Mihira AI, đã cấp phép cho các dự án mà Intel đã chọn gác lại.

Thùy Linh

3410

Phần cứng 20/10/2023 - 10:07:30

Phytium ra mắt vi xử lý 64 lõi Feiteng Tengyun S2500 bất chấp lệnh trừng phạt của Hoa Kỳ

Phytium đã im hơi lặng tiếng trong hơn hai năm sau khi chính phủ Hoa Kỳ đưa công ty vào danh sách đen vào tháng 4 năm 2021. Bất chấp các lệnh trừng phạt, công ty vẫn hoạt động và trong tuần này, họ đã giới thiệu vi xử lý Feiteng Tengyun S2500 64 lõi đầu tiên dành cho các ứng dụng trung tâm dữ liệu tại Diễn đàn đổi mới ngành công nghiệp bộ nhớ toàn cầu 2023.

Thùy Linh

3169

Phần cứng 19/10/2023 - 12:13:14

Nhà phát triển GPU Trung Quốc Moore Threads đang thử nghiệm GPU thế hệ tiếp theo bất chấp lệnh cấm của Hoa Kỳ

Moore Threads Technology, một nhà phát triển GPU của Trung Quốc đã bị chính phủ Hoa Kỳ đưa vào danh sách đen trong tuần này, đang thử nghiệm các bộ xử lý đồ họa thế hệ tiếp theo của mình cho máy tính khách và trung tâm dữ liệu, theo Löschzwerg từ 3D Center trên Devicehunt.com. Các sản phẩm được đề cập là MTT S90 cho máy tính khách và MTT S4000 cho trung tâm dữ liệu. Các thiết bị có ID thiết bị lần lượt là 0301 và 0323, có thể chỉ ra rằng chúng là GPU thế hệ thứ 3 từ Moore Threads. Chúng ta không biết nhiều về những GPU này, tuy nhiên, với các ID thiết bị mới, chúng ta chỉ có thể suy đoán rằng chúng ta đang xử lý một vi kiến trúc hoàn toàn mới sẽ kế thừa dòng GPU Chunxiao của công ty. Dòng Chunxiao bao gồm các sản phẩm MTT S70, MTT S80 và MTT S4000, hầu như không thể cạnh tranh với các card đồ họa tốt nhất của AMD, Intel và Nvidia.

Diễm Phương

3392

Phần cứng 19/10/2023 - 12:12:14

Samsung Đẩy Mạnh Phát Triển Công Nghệ V-NAND Thế Hệ Thứ 9 Với Hơn 300 Lớp

Là nhà cung cấp bộ nhớ NAND lớn nhất thế giới, Samsung có những kế hoạch lớn cho sự phát triển của công nghệ V-NAND (công nghệ 3D NAND của công ty) và đã chia sẻ một số thông tin trong tuần này. Công ty xác nhận rằng họ đang trên đà sản xuất bộ nhớ V-NAND thế hệ thứ 9 với hơn 300 lớp vào năm 2024 và cho biết rằng nó sẽ có số lớp hoạt động cao nhất trong ngành.

Linh Hương

2521

Phần cứng 19/10/2023 - 10:26:47

Các quy định xuất khẩu mới của Hoa Kỳ hạn chế việc xuất khẩu chip cao cấp sang Trung Quốc và các nước khác

Theo các quy định xuất khẩu mới nhất do chính phủ Hoa Kỳ áp đặt, AMD, Intel và Nvidia không còn được phép vận chuyển một số bộ xử lý hiệu suất cao của họ sang Trung Quốc và một số quốc gia khác mà không có giấy phép xuất khẩu từ Bộ Thương mại Hoa Kỳ. Trên thực tế, các hạn chế nghiêm ngặt đến mức các lô hàng bộ xử lý AD102 của Nvidia cũng bị hạn chế, điều này có thể ảnh hưởng đến nguồn cung cấp card đồ họa GeForce RTX 4090.

Mai Ngọc

3687

Phần cứng 19/10/2023 - 09:48:06

Intel và Submer giới thiệu giải pháp tản nhiệt đột phá cho chip 1000W+

Sự hợp tác giữa Intel và Submer, được công bố lần đầu vào đầu năm 2022, cuối cùng đã đơm hoa kết trái. Tuần này, hai công ty đã công bố giải pháp tản nhiệt Forced Convection Heat Sink (FCHS) được thiết kế để làm mát các chip có công suất thiết kế nhiệt từ 1000W trở lên. Thiết bị hứa hẹn sẽ là một giải pháp đáng tin cậy và tiết kiệm chi phí cho các bộ xử lý trung tâm dữ liệu trong tương lai với khả năng tản nhiệt cực cao.

Thùy Linh

2890

Phần cứng 17/10/2023 - 12:39:15

Micron ra mắt dòng SSD 7500 với bộ nhớ NAND 3D TLC 232 lớp

Micron đã giới thiệu dòng SSD 7500 sử dụng bộ nhớ NAND 3D TLC 232 lớp của công ty và tăng nhẹ hiệu suất so với dòng ổ đĩa 7450 của công ty. Các SSD mới vẫn giữ giao diện PCIe Gen4 và giải quyết các ứng dụng lưu trữ trung tâm dữ liệu chính, bao gồm máy chủ đám mây và máy chủ doanh nghiệp.

Diễm Phương

2195

Phần cứng 17/10/2023 - 11:56:50

Công nghệ lưu trữ dữ liệu trên kính của Microsoft có thể lưu trữ 1.75 triệu bài hát trên một miếng kính nhỏ

Microsoft đã cung cấp bản cập nhật về nghiên cứu lưu trữ Project Silica của mình. Theo một bài đăng trên blog và video gần đây, gã khổng lồ về phần mềm và thiết bị hiện đang định vị Project Silica như một giải pháp lưu trữ bền vững để giải quyết thị trường máy chủ lưu trữ đám mây. Sử dụng công nghệ Project Silica, có thể lưu trữ khoảng 1,75 triệu bài hát hoặc khoảng 3.500 bộ phim trên một miếng kính nhỏ bằng lòng bàn tay. Hơn nữa, Microsoft khẳng định rằng dung lượng lưu trữ 7 TB trên mỗi tấm kính duy trì tính toàn vẹn dữ liệu trong 10.000 năm.

Huyền Diễm

3265

Phần cứng 15/10/2023 - 03:04:56

Giám đốc điều hành AMD Lisa Su rời khỏi ban giám đốc của Cisco

Giám đốc điều hành AMD Lisa Su cùng với hai người khác đã thông báo với Cisco rằng họ muốn rời khỏi ban giám đốc của công ty. Su gia nhập ban giám đốc của Cisco vào đầu năm 2020, nhưng đã có rất nhiều điều xảy ra kể từ đó, đây có thể là lý do khiến bà quyết định từ chức.

Huyền Diễm

2287

Phần cứng 13/10/2023 - 07:33:23

Fujitsu đang phát triển bộ vi xử lý thế hệ tiếp theo cho AI, HPC và trung tâm dữ liệu

Fujitsu đang phát triển bộ vi xử lý thế hệ tiếp theo cho AI, HPC và trung tâm dữ liệu, có tên gọi Monaka. Bộ vi xử lý này được cho là sẽ có hiệu năng mạnh mẽ với 150 lõi Armv9 được cải tiến và khả năng sử dụng các bộ tăng tốc. Là một trong những bộ vi xử lý trung tâm dữ liệu 2nm đầu tiên, Monaka dự kiến sẽ ra mắt vào năm tài chính 2027, bắt đầu từ ngày 1 tháng 4 năm 2026 và kết thúc vào ngày 31 tháng 3 năm 2027.

Phương Linh

3000

Di động 11/10/2023 - 06:23:48

Micron trình làng bộ nhớ DDR5 16Gb mới cho máy chủ và PC, tốc độ lên đến 7200 MT/s nhờ quy trình 1β

Micron Technology vừa công bố đã mở rộng công nghệ quy trình nút 1β (1-beta) hàng đầu trong ngành với việc giới thiệu bộ nhớ DDR5 16Gb. Với chức năng trong hệ thống đã được chứng minh ở tốc độ lên đến 7.200 MT/s, DRAM DDR5 1β của Micron hiện đang được vận chuyển đến tất cả các khách hàng trung tâm dữ liệu và PC.

Tuấn Anh

2616

Phần cứng 11/10/2023 - 07:18:45

Trung Quốc đặt mục tiêu tăng cường 50% khả năng tính toán vào năm 2025

Trung Quốc đang đặt mục tiêu tăng cường 50% khả năng tính toán của nước này vào năm 2025, lên tổng cộng 300 ExaFLOPS. Đây là một phần trong chiến lược của nước này nhằm duy trì sức cạnh tranh trong lĩnh vực công nghệ cao, đặc biệt là trong lĩnh vực trí tuệ nhân tạo (AI) và máy tính hiệu năng cao (HPC).

Mai Ngọc

3683

Phần cứng 05/10/2023 - 02:12:20

Intel sắp chia tách mảng kinh doanh FPGA thành một công ty độc lập

Intel đã công bố kế hoạch chia tách mảng kinh doanh FPGA (PSG) thành một công ty độc lập vào ngày 1 tháng 1 năm 2024. Intel cho biết động thái chiến lược này là một phần trong nỗ lực tăng cường đầu tư vốn chủ sở hữu, nâng cao giá trị và khai thác hết tiềm năng của thị trường FPGA. Sandra Rivera sẽ lãnh đạo PSG với tư cách là CEO, cùng với Shannon Poulin giữ chức COO.

Huy Hoàng

2780

Phần cứng 28/09/2023 - 11:21:12

Intel xác nhận CPU Meteor Lake sẽ không được sử dụng cho PC desktop có socket

Intel đã xác nhận rằng CPU Meteor Lake sẽ được sử dụng cho máy tính xách tay và máy tính để bàn nhỏ gọn, nhưng không được sử dụng cho PC desktop có socket. Công ty cho biết Meteor Lake là một kiến trúc tiết kiệm năng lượng sẽ cung cấp sức mạnh cho các thiết kế di động và máy tính để bàn sáng tạo, bao gồm các dạng máy tính để bàn như All-in-One (AIO).

Huy Hoàng

3242

Phần cứng 28/09/2023 - 11:07:16

Microsoft tìm kiếm nhân tài dẫn đầu chiến lược công nghệ hạt nhân, tập trung triển khai SMR và microreactor cho trung tâm dữ liệu

Microsoft đang tìm kiếm một nhân vật chủ chốt để dẫn đầu chiến lược công nghệ hạt nhân của mình, tập trung vào việc triển khai lò phản ứng hạt nhân mô-đun nhỏ (SMR) và microreactor cho các trung tâm dữ liệu của mình, theo Datacenter Dynamics. Động thái này diễn ra sau khi công ty gần đây mua lại tín dụng năng lượng sạch từ Ontario Power Generation. Nhu cầu toàn cầu về năng lượng bền vững đang tăng cao và Microsoft đặt mục tiêu đi đầu trong quá trình chuyển đổi năng lượng này.

Huy Hoàng

3231

Phần cứng 28/09/2023 - 10:59:52

Samsung ra mắt bộ nhớ LPCAMM LPDDR5X mới với hiệu năng cao, tiết kiệm điện và kích thước nhỏ gọn

Samsung hôm nay đã công bố rằng họ đã phát triển một dòng sản phẩm Bộ nhớ gắn nén công suất thấp (LPCAMM) tận dụng bộ nhớ LPDDR5X trong một gói nhỏ hơn, nhanh hơn và hiệu quả hơn so với bộ nhớ tiêu chuẩn. Samsung cho biết các mô-đun LPDDR5X-6400 mới cung cấp tốc độ thông lượng bộ nhớ lên đến 7,5 gigabits mỗi giây và tiêu thụ ít hơn 60% diện tích bảng trong khi cung cấp hiệu năng cao hơn 50% so với các mô-đun bộ nhớ SO-DIMM hiện tại. Các Samsung LPCAMM kênh đôi có các phiên bản 32, 64 và 128GB, cung cấp một lượng bộ nhớ lớn trong một kích thước mới vô cùng nhỏ gọn khi chúng ra mắt vào năm 2024.

Huy Hoàng

3726

Phần cứng 28/09/2023 - 10:29:54

UltraRAM - Công nghệ bộ nhớ mới đầy tiềm năng của QuInAs Technology

UltraRAM là một công nghệ bộ nhớ mới đang được phát triển bởi QuInAs Technology, một công ty được tách ra từ Khoa Vật lý của Đại học Lancaster (Anh). UltraRAM được thiết kế để kết hợp các ưu điểm của bộ nhớ flash (không biến động) và bộ nhớ DRAM (tốc độ cao).

Huy Hoàng

2901

Phần cứng 23/09/2023 - 09:38:07

Các công ty thiết kế chip hàng đầu thế giới đạt doanh thu kỷ lục nhờ cơn sốt AI

Các công ty thiết kế chip hàng đầu thế giới đã đạt được mức tăng doanh thu đáng kể nhờ cơn sốt AI đang diễn ra. Họ đạt tổng doanh thu 38,1 tỷ USD, tăng 12,5% so với quý trước, theo TrendForce. Nvidia, công ty bán được 10 tỷ USD phần cứng trung tâm dữ liệu, đã trở thành nhà thiết kế chip fabless có doanh thu cao nhất, vượt qua Qualcomm trong bảng xếp hạng.

Huy Hoàng

3311

Phần cứng 21/09/2023 - 12:14:13

Intel Giới Thiệu Meteor Lake: Đột Phá Trí Tuệ Nhân Tạo và Công Nghệ CPU Mới

Intel đã công bố bộ xử lý Meteor Lake với AI NPU tích hợp mạnh mẽ tại hội nghị Innovation 2023. Meteor Lake là bộ xử lý đầu tiên được sản xuất dựa trên quy trình Intel 3 và được trang bị AI NPU tích hợp có khả năng nén video gấp 5 lần so với các giải pháp khác. Intel cũng đã công bố mở rộng hợp tác với Arm để phát triển OpenVINO,Intel ra mắt Meteor Lake với khả năng nén video ấn tượng, đặc biệt hơn bất kỳ giải pháp nào trước đó. CEO Intel, Pat Gelsinger, đã công bố kế hoạch triển khai trí tuệ nhân tạo (AI) kết hợp từ trung tâm dữ liệu đến biên. Hãng cũng mở rộng hợp tác với Arm và giới thiệu bộ công cụ phát triển AI Hybrid SDK. một nền tảng phát triển AI đa nền tảng.

Huy Hoàng

3403

Phần cứng 21/09/2023 - 10:53:06

Intel công bố bộ xử lý 288 lõi, chiplet UCIe đầu tiên và nhiều sản phẩm mới

Intel CEO Pat Gelsinger đã công bố tại hội nghị Innovation 2023 của công ty rằng họ có một bộ xử lý Xeon Sierra Forest mới với 288 E-core sẽ được tung ra thị trường trong tương lai. Mỗi lõi đều có luồng đơn, vì vậy chip mới của Intel có 288 lõi vật lý và theo sát các bộ xử lý Sierra Forest 144 lõi được Intel công bố trước đó. Intel cũng thông báo rằng Xeon ‘Emerald Rapids’ thế hệ thứ năm của họ sẽ ra mắt đúng lịch trình vào ngày 14 tháng 12.

Huy Hoàng

2657

Phần cứng 19/09/2023 - 07:14:45

Intel đầu tư 1 tỷ USD vào công nghệ đóng gói kính

Intel hôm nay đã chính thức xác nhận rằng họ sẽ sử dụng vật liệu nền kính cho các giải pháp đóng gói tiên tiến trong nửa sau thập kỷ này. Intel kỳ vọng các đặc tính cơ học, vật lý và quang học vượt trội của vật liệu nền kính sẽ cho phép công ty xây dựng các hệ thống đa chiplet trong gói (SiP) hiệu suất cao hơn, chủ yếu dành cho các trung tâm dữ liệu. Cụ thể, Intel kỳ vọng vật liệu nền kính sẽ cho phép sản xuất các SiP có kích thước cực lớn 24 × 24 cm, chứa nhiều khối silicon.

Huy Hoàng

3007

Phần cứng 18/09/2023 - 09:52:34

Nvidia bán 900 tấn GPU H100 trong quý 2 năm 2023

Khi Nvidia cho biết họ đã bán được 10,3 tỷ đô la doanh thu từ phần cứng trung tâm dữ liệu trong quý 2 năm tài chính 2024, chúng ta có thể tưởng tượng rằng công ty đã bán được hàng tấn GPU tính toán H100 cao cấp của mình, nhưng công ty nghiên cứu thị trường Omdia cho biết Nvidia đã thực sự bán được 900 tấn bộ xử lý H100 trong quý 2 năm dương lịch 2023.

Huy Hoàng

2409

Phần cứng 16/09/2023 - 08:34:54

Intel bắt đầu phát triển hỗ trợ trình điều khiển Battlemage trên Linux

Phoronix đưa tin rằng Intel đã bắt đầu phát triển hỗ trợ trình điều khiển Battlemage trên Linux. Bằng chứng được nhìn thấy trong một bản cập nhật trình biên dịch Intel Mesa trên GitLab, nêu rõ rằng các thay đổi kích thước thanh ghi đang được thực hiện cho Xe2 (tức là Battlemage). Công việc kích hoạt trình điều khiển của Intel phù hợp với ngày phát hành Battlemage vào nửa cuối năm 2024. Chúng tôi đã thấy hành vi này với các bản phát hành GPU trước đây, nơi các nhà phát triển sẽ bắt đầu tập trung vào hỗ trợ trình điều khiển Linux một năm (hoặc hơn) trước khi phát hành dòng GPU trong tương lai.

Huy Hoàng

3493

Phần cứng 14/09/2023 - 08:13:15

AMD tung ra 6 SKU Milan mới, đáp ứng nhu cầu thị trường

AMD đã ra mắt kiến trúc Zen 4 được một thời gian; tuy nhiên, vẫn có nhu cầu về bộ xử lý Zen 3 - ít nhất là trong không gian máy chủ và trung tâm dữ liệu. Cách đây một tuần, nhà sản xuất chip đã âm thầm mở rộng dòng sản phẩm EPYC 7003 (Milan) thế hệ thứ 3 của công ty với sáu SKU mới.

Huy Hoàng

3001

Phần cứng 12/09/2023 - 08:33:34

TSMC hợp tác với Broadcom và Nvidia để phát triển silicon photonics

TSMC được cho là đã tiếp cận hai nhân vật nặng ký trong ngành để khám phá silicon photonics, theo UDN.com. Động thái này giải quyết nhu cầu ngày càng tăng về tốc độ truyền dữ liệu được nâng cao, đặc biệt là với sự phổ biến của các công nghệ AI và các mô hình ngôn ngữ lớn chạy trên nhiều máy. Các báo cáo chỉ ra rằng TSMC đã tập hợp một nhóm R&D chuyên biệt gồm khoảng 200 chuyên gia, tập trung vào việc khai thác sức mạnh của silicon photonics cho các chip trong tương lai. Tin đồn cho rằng TSMC đang đàm phán với các nhà đầu tư lớn như Broadcom và Nvidia để đồng phát triển các ứng dụng tập trung vào công nghệ này. Sự hợp tác này nhằm sản xuất chip thế hệ tiếp theo với silicon photonics, và các đơn đặt hàng lớn được dự kiến sẽ bắt đầu từ nửa cuối năm 2024.

Huy Hoàng

3187

Phần cứng 12/09/2023 - 08:19:34

Nvidia TensorRT-LL tăng gấp đôi hiệu suất LLM trên GPU H100

Nvidia cho biết phần mềm mã nguồn mở TensorRT-LL mới của họ có thể tăng hiệu suất đáng kể của các mô hình ngôn ngữ lớn (LLM) trên GPU của họ. Theo công ty, khả năng của TensorRT-LL của Nvidia cho phép họ tăng hiệu suất của GPU H100 của họ lên hai lần trong LLM GPT-J với sáu tỷ tham số. Quan trọng là phần mềm có thể cho phép cải thiện hiệu suất này mà không cần đào tạo lại mô hình.

Huy Hoàng

3240

Phần cứng 10/09/2023 - 10:01:19

AMD EPYC thế hệ thứ 6: Sử dụng socket SP7 mới, hỗ trợ tối đa 16 kênh bộ nhớ

AMD's 6th Generation EPYC processors, được codenamed Venice và dựa trên Zen 6, có thể sẽ sử dụng socket SP7 mới, theo leaker nổi tiếng YuuKi_AnS, người dường như đã xem roadmap của một nhà sản xuất máy chủ. Nền tảng mới này sẽ cho phép hỗ trợ tối đa 16 kênh bộ nhớ, ông khẳng định, điều này sẽ đảm bảo đủ băng thông bộ nhớ cho CPU có hàng trăm lõi.

Huy Hoàng

2005

Chọn trang

Hình ảnh

Tìm kiếm: Trung tâm dữ liệu

NewSLiver

Tìm kiếm: Trung tâm dữ liệu

NewSLiver

Tin nổi bật

Danh mục

Hình ảnh

Tìm kiếm: Trung tâm dữ liệu